Sekolah ini telah diasaskan pada tahun 1952 oleh beberapa orang pengasas utamanya yang terdiri daripada bekas pengetuanya yang pertama iaitu Al Marhum Tuan Haji Abdullah Mukri bin Haji Ahmad, bekas pengerusi Lembaga Tadbir dan ADUN Sungai Besar iaitu Al Marhum Tuan Haji Abu Samah bin Nordin, Al Marhum Raja Abdullah (bekas penghulu) dan Tuan Haji Mohd Nor bin Haji Abdullah (bekas ketua kampung Sungai Besar). Di awal penubuhannya, sekolah ini dikenali sebagai sebuah Sekolah Agama Rakyat dan terletak di Jalan Parit Satu Sungai Besar. Kejayaan penubuhan sekolah ini adalah hasil kutipan derma orang ramai sebanyak sepuluh sen yang diambil daripada setiap guni padi mereka.

Seterusnya, pada tahun 1957 sebuah bangunan baru yang diperbuat daripada kayu telah didirikan di tapak yang sama dengan bantuan Kerajaan Persekutuan (Bantuan Rancangan Luar Bandar). Sekolah ini telah dirasmikan oleh Al Marhum DYMM Sultan Salahuddin Abdul Aziz Shah, Sultan Selangor Darul Ehsan pada 2hb Januari 1962. Bermula dari saat itu sekolah ini telah diambil alih sepenuhnya oleh Kerajaan Negeri Selangor dan Jabatan Agama Islam Selangor (JAIS) sebagai pengelolanya.Oleh kerana sambutan masyarakat terhadap pendidikan agama begitu menggalakkan dan sekolah di tapak yang lama tidak mampu menampung lagi bilangan pelajar yang semakin ramai dan tambahan pula bangunan sekolah juga telah beransur uzur maka Kerajaan Selangor telah bersetuju memperuntukkan wang sebanyak 1.4 juta bagi membina bangunan sekolah yang baru. Rentetan itu pada tahun 1986, Kerajaan Selangor telah membina bangunan yang baru di atas tanah kerajaan seluas 12.22 ekar yang terletak di Jalan Baru Kampung Nelayan Sungai Besar. Sekolah baru ini mempunyai tiga blok bangunan dua tingkat yang dilengkapi dengan kantin, perpustakaan, makmal sains, pejabat dan bilik solat. Sekolah ini mula digunakan pada Januari 1987 bersamaan 23 Jamadil Awal 1407 dan dikenali dengan nama Sekolah Agama Menengah Sungai Besar (SAMSB).

Empat tahun selepas itu, pada 27hb Julai bersamaan 15 Muharram 1412 sekolah baru ini telah dirasmikan oleh Al Marhum DYMM Sultan Salahuddin Abdul Aziz Shah. Secara rasminya sekolah ini telah ditukar nama dari Sekolah Agama Menengah Sungai Besar kepada Sekolah Agama Menengah Tengku Ampuan Jemaah (SAMTAJ) bersempena nama nenda Sultan Selangor. Pengetua pada waktu itu ialah Ustaz Ismail bin Haji Abd. Gani dan pada hari ini sekolah ini diterajui oleh pengetua, Puan Jamaah binti Shahbuddin, Guru Penolong Kanan 1, Ustaz Idris bin Marjunid, Guru Penolong Kanan Hal Ehwal Pelajar, Ustaz Khirul Anuar bin Lakimin dan Guru Penolong Kanan Kokurikulum, Ustazah Asmah binti Abd. Rahman.